Lý Ngạn Hoành sinh ra trong một gia đình có bố mẹ đều là công nhân một nhà máy ở Dương Tuyền, tỉnh Sơn Tây, nơi mà ông đã gắn bó trong phần lớn cuộc sống thơ ấu. Ông là người con thứ tư, và là con trai duy nhất trong một gia đình có năm người con.[9]

Ông theo học tại Đại học Bắc Kinh và có bằng cử nhân quản lý thông tin vào năm 1991. Vào mùa thu năm đó, ông đã tới Đại học Buffalo, New York, Mỹ để nghiên cứu sinh về khoa học máy tính. Ông nhận bằng Thạc sĩ khoa học năm 1994, sau khi đã quyết định không tiếp tục lấy học vị tiến sĩ nữa.[9]